Từ 1958, Trương Như Tảng bắt đầu hoạt động bí mật cho đảng cộng sản, tại Sài Gòn. Năm 1960 ông tham gia thành lập Mặt trận Dân tộc Giải phóng Miền Nam Việt Nam[cần dẫn nguồn]. Sau khi Tổng thống Ngô Đình Diệm bị lật đổ, ông được cử làm Tổng Giám đốc Công ty Đường Việt Nam, một công ty quốc gia lớn. Trong thời gian này ông đã hoạt động ngầm cho hai tổ chức thân cộng là "Phong trào Tự Quyết" và "Ủy ban bảo vệ Hòa Bình" do bác sĩ Phạm Văn Huyến, cha của nữ luật sư Ngô Bá Thành điều khiển.[4] Hành tung của Trương Như Tảng bại lộ, ngày 16 tháng 6 năm 1966, ông bị bắt bởi các nhân viên làm việc dưới quyền tướng Nguyễn Ngọc Loan. Nhờ có Trần Bạch Đằng thu xếp với người Mỹ về trao đổi tù binh, ông được phóng thích[5] để ra bưng hoạt động hẳn cho phe cộng sản. Sau khi Liên minh các Lực lượng Dân tộc, Dân chủ và Hòa bình Việt Nam thành lập, ông là phó chủ tịch liên minh ở Sài Gòn - Chợ Lớn - Gia Định. Ngày 8 tháng 6 năm 1969, Trương Như Tảng tham gia sáng lập và giữ chức bộ trưởng Bộ Tư Pháp của Chính phủ Cách mạng Lâm thời Cộng hòa Miền Nam Việt Nam.